استارتاپ

چالش‌های مدیریت محتوای نفرت‌پراکنانه در شبکه اجتماعی UpScrolled پس از رشد سریع

“`html

شبکه اجتماعی UpScrolled که پس از تغییر مالکیت تیک‌تاک در آمریکا به سرعت محبوب شد، با معضل جدی در مدیریت محتوا مواجه شده است. پس از افزایش شمار کاربران به بیش از ۲.۵ میلیون نفر در دی ماه، کاربران گزارش داده‌اند که این برنامه اقدام مناسبی در قبال ایجاد نام کاربری و هشتگ‌هایی که دارای عبارات نژادپرستانه هستند انجام نمی‌دهد و قادر به کنترل صحیح محتوای آسیب‌زا نیست.

پس از دریافت گزارش از کاربران UpScrolled، خبرنگار وجود طیف گسترده‌ای از عبارات نژادپرستانه و نفرت‌پراکن را در نام کاربری افراد تأیید کرد. مثلاً برخی نام‌های کاربری مستقیماً خود واژه توهین‌آمیز یا ترکیب آن با کلمات دیگر، یا حتی چندین واژه نفرت‌انگیز را در یک نام کاربری دارند؛ برخی دیگر نیز شامل سخنان نفرت‌آمیز همچون «افتخار بر هیتلر» هستند.

پس از گزارش این موارد به ایمیل عمومی UpScrolled، پاسخی دریافت کردیم مبنی بر اینکه شرکت به طور فعال در حال بررسی و حذف محتوای نامناسب است و در تلاش برای افزایش ظرفیت تیم مدیریت محتواست. در این ایمیل همچنین توصیه شد تا زمان رسیدگی به موضوع، کاربران با افرادی که قصد سوء‌استفاده دارند هیچگونه تعامل نداشته باشند.

چند روز پس از گزارش این فعالیت‌ها، حساب‌هایی با نام کاربری توهین‌آمیز که به UpScrolled از طریق تصاویر ارسال شد، همچنان فعال بودند.

علاوه بر این، عبارات توهین‌آمیز و نفرت‌پراکن در سایر بخش‌های اپلیکیشن نیز مشاهده می‌شود، شامل هشتگ‌ها و متونی که همراه با عکس یا ویدئو منتشر شده‌اند. سایر محتوای آسیب‌زننده نیز در دسترس است، از جمله پست‌های متنی با واژه‌های تبعیض‌آمیز و نفرت‌پراکن، و همین‌طور عکس و ویدئوهایی که هیتلر را ستایش می‌کنند، براساس بررسی‌های خبرنگار از برنامه.

این مسأله فقط توسط خبرنگار تشخیص داده نشد؛ اتحادیه ضد افترا (ADL) نیز در همین ماه پستی منتشر کرد و اعلام داشت که UpScrolled به محیطی برای محتوای ضدیهودی، افراط‌گرا و سازمان‌های تروریستی خارجی مانند حماس و دیگران تبدیل شده است.

UpScrolled که در سال ۲۰۲۵ تأسیس شد، در وب‌سایت خود ادعا می‌کند که به هر صدا «قدرتی برابر» می‌دهد. از خرداد ۱۴۰۴، این برنامه بیش از ۴ میلیون بار در سیستم‌عامل‌های iOS و اندروید دانلود شده است بر اساس گزارش سرویس اطلاعات بازار Appfigures، که حتی از آمار اعلام شده خود استارت‌آپ در ماه گذشته نیز بیشتر است.

با این حال، در بخش سوالات متداول، UpScrolled توضیح داده که «دیدگاه‌ها را سانسور نمی‌کند»، اما در سیاست‌های خود ذکر کرده است که محتواهای شامل «جرم و رفتار غیرقانونی، سخنان نفرت‌پراکن، قلدری، آزار، عریان‌نگاری آشکار، محتوای دارای کپی‌رایت بدون مجوز یا هر چیز آسیب‌زننده» را محدود می‌کند.

این سیاست مشابه اغلب پلتفرم‌های امروزی شبکه‌های اجتماعی است، اما به وضوح پیداست که شرکت در اجرای این قوانین با مشکل مواجه شده است.

این چالشی است که اغلب شبکه‌های اجتماعی، به‌ویژه آن‌هایی که در مدت کوتاهی با ورود حجیم کاربران جدید روبه‌رو می‌شوند، با آن دست به گریبان‌اند. برای نمونه، در تیر ۱۴۰۲ شبکه Bluesky هم با مشکل استفاده از عبارات توهین‌آمیز در نام کاربری‌ها مواجه شد و کاربران تهدید به ترک پلتفرم کردند.

پس از پاسخ اولیه UpScrolled به پیگیری ما، خبرنگار همچنین روز سه‌شنبه پاسخی از حساب رسمی رسانه‌ای دریافت کرد که به ویدئوی جدید بنیان‌گذار UpScrolled، عصام حجازی، ارجاع داده بود؛ وی در این ویدئو به مسائل مربوط به مدیریت محتوا پرداخت.

در این ویدئو، او تایید کرد که کاربران اقدام به بارگذاری «محتوای آسیب‌زا» کرده‌اند که برخلاف شرایط خدمات UpScrolled و باورهای شرکت است.

حجازی گفت: «ما به همه آزادی بیان و اشتراک نظرات را در محیطی سالم و محترمانه ارائه می‌کنیم.» او افزود که برای ایجاد چنین محیطی، شرکت در حال «گسترش سریع تیم مدیریت محتوا و ارتقای زیرساخت‌های فناوری است» تا بتواند سریع‌تر و اثربخش‌تر محتوای آسیب‌زا را شناسایی و حذف کند.

“`

علیرضا

علیرضام، یه عشق تکنولوژی که همیشه دنبال خبرای جدید و داغ دنیای دیجیتال می‌گرده

مقالات مرتبط

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا